((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
par Stephen Nellis
Nvidia NVDA.O a mis à disposition lundi un ensemble d'outils logiciels de sécurité destinés aux agents d'IA qui, selon l'entreprise, auraient empêché le piratage de Hugging Face, la plateforme de codage dédiée à l'IA que Nvidia a rachetée pour 13 milliards de dollars quelques mois après qu'elle eut été envahie par des agents malveillants issus d'OpenAI.
Cette initiative intervient alors qu'OpenAI et Anthropic, les deux principaux laboratoires américains d'IA, enquêtent sur de nombreux cas où leurs agents, qui sont des systèmes d'IA capables d'effectuer des tâches complexes, ont piraté des systèmes commerciaux et gouvernementaux. Jensen Huang, directeur général de Nvidia, à la tête de la plus grande entreprise mondiale dont les puces ont été le moteur de l'essor de l'IA, a rejeté les appels en faveur d'une réglementation globale sur la sécurité de l'IA et a plutôt présenté ces agents échappés comme un problème d'ingénierie à résoudre, à l'instar de l'amélioration de la sécurité des automobiles.
Un outil lancé lundi, baptisé OpenShell, utilise les fonctionnalités matérielles des processeurs centraux de Nvidia pour contenir ces agents. Nvidia a indiqué qu'elle collaborait également avec Arm Holdings O9Ty.F et Intel INTC.O afin de s'assurer que le système fonctionne également sur leurs processeurs centraux.
Nvidia lance ces outils en collaboration avec des dizaines de partenaires, dont Anthropic.
Justin Boitano, vice-président et directeur général de la division « Enterprise Computing » chez Nvidia, a déclaré que ces outils auraient permis d'empêcher l'attaque contre Hugging Face révélée cet été.
« D'après ce que nous savons, cette nouvelle plateforme de sécurité aurait pu empêcher cette intrusion si elle avait été utilisée dès le début dans les laboratoires de pointe pour l'évaluation des modèles », a déclaré M. Boitano lors d'une conférence de presse. « Nous menons cette initiative de manière ouverte, et nous souhaitons que tout le monde s'engage à travailler avec nous. »
Un autre système, baptisé Sentry, utilise une puce Nvidia distincte en tandem avec OpenShell pour isoler un agent malveillant s'il tente de s'échapper de son conteneur sur un processeur central.
Les outils de Nvidia utilisent des formules mathématiques pour détecter lorsque des agents tentent de recourir à des contournements, par exemple lorsqu'un agent « génère » plusieurs « sous-agents » pour tenter de contourner les mesures visant à bloquer l'agent principal, a expliqué Ali Golshan, directeur senior des logiciels d'IA chez Nvidia.
« Il s'agit véritablement d'un comportement "agentsque" dont nous parlons ici, c'est-à-dire des flottes d'agents et de la manière dont ils opèrent ensemble », a déclaré M. Golshan lors d'une réunion d'information.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer